Cette uchronie est intéressante, car transposable à la robotique avec une question sous-jacente, les robots doivent-ils avoir de la mémoire ? Non pas celle qui serait contenue dans un disque dur, mais bien une mémoire humanisée qui s’autoriserait à être racontée, embellie, modifiée. La question de la mémoire et de son utilisation est tout sauf neutre dans la perspective de l’élaboration d’un droit robotique.
La mémoire est une caractéristique fondamentale de l’être humain. En doter des machines ce n’est pas simplement nous fournir un mode d’accès à leurs fonctions, programmes d’enregistrement ou de calcul, et ce au service de notre usage, c’est aussi leur donner la capacité de la transmission et donc d’héritage. Nous connaissons cela dans le monde des échecs où les grands maitres apprennent par cœur des centaines de parties, les analysent, les adaptent au jeu qu’ils sont en train de vivre pour identifier une variante non utilisée qui pourrait leur donner un gain significatif.
Le rapport de Simak aux robots est intéressant, car il pose celui de la responsabilité d’un créateur vis-à-vis de ses créations qui seraient dotées d’une intelligence même artificielle. Cette artificialité de l’intelligence n’est pas un obstacle pour Simak qui au travers de ses ouvrages gomme les différences entre ces deux intelligences pour amener à une confusion entre ceux qui en sont dotés, et donc à s’interroger sur ce qui définit réellement l’humanité.
Ce qui amène l’auteur à notre propos, à savoir les droits qui peuvent être reconnus aux robots. Et, question subsidiaire, serions-nous, nous humains, toujours les créateurs dispensateurs de tels droits ?
Aujourd’hui ces questions n’ont qu’une réponse, celle de l’éthique du créateur. Cette éthique qui guide la programmation doit assurer en permanence que le robot n’est pas doté de droits propres qui viendraient se confronter avec ceux reconnus aux humains (lois d’Asimov en somme) afin que ces machines restent en permanence des machines obéissantes et serviables.
Maintenant ce souci d’éthique brandi aujourd’hui sera-t-il permanent ? Des contraintes politiques, militaires ou économiques pourraient-elles remettre en question cette éthique présentée comme une barrière infranchissable aux dérives forcément humaines ? L’Histoire a montré que les grands principes ont de faibles résistances face à des intérêts personnels ou étatiques qui auraient les moyens de s’imposer.
Clifford D Simak opte pour une vision contrastée. La nature humaine étant ce qu’elle est, les progrès technologiques qui s’avéreraient à portée seront mis en œuvre. Le développement de l’IA a été spectaculaire au cours des dernières années et rien ne semble devoir l’arrêter. Les soubresauts que vient de connaitre l’entreprise Open IA (qui a développé Chat GPT) sont le récent exemple entre deux conceptions du rôle de l’IA, doit-elle être une technique maitrisée au service d’un intérêt général ou une technologie fondement d’un nouvel El Dorado économique. On laisse deviner qui remportera la mise.
Il serait illusoire de penser que le développement de l’IA et des ordinateurs quantiques aux puissances de calcul démesurées n’entrainera pas de la part des robots qui en seraient équipés des libertés comportementales, présentées initialement comme des hypothèses prévues par un programmateur, mais qui pourraient rapidement laisser la place à des choix circonstanciés définis par des algorithmes de choix.
L’œuvre de Simak, de science-fiction lors de sa parution en 1952 est, 70 ans plus tard, devenue une réflexion philosophique quant à notre rapport au progrès et pose des questions de grande pertinence.
A quel moment de conscience un robot peut avoir des droits ? Et si des droits lui sont reconnus doivent-il être similaires ou identiques à ceux des humains ? Une situation qui ne serait pas sans risque, le non-respect de droits pourrait être source de conflit entre la créature et son créateur. Le contexte robotique qui serait ainsi créé pourrait avoir des conséquences insoupçonnées ? En 2023 l’évoquer peut sembler farfelu comme, il y a encore quelques années, dire que l’on aurait dans sa poche un smartphone qui remplacerait un ordinateur, un appareil photo, un portefeuille, une télévision, une platine audio et tant d’autres applications aurait, là aussi, semblé farfelu.
Demain les robots n’est donc pas une vue de l’esprit. Le droit robotique doit se poser dès à présent les questions morales et éthiques. Devons-nous être dans un rapport technique entre un inventeur et son invention, un développeur et son programme ou ne risquerions-nous pas de glisser dans un rapport nettement plus risqué d’un créateur déifié avec ses fidèles.
Si pour le robot de demain l’homme est un dieu il conviendra de prendre garde à ce que le respect de la loi « divine » soit bien implanté dans l’esprit du robot. Si cela est mal fait, les robots pourraient développer un pélagianisme qui nous placerait en second. Et, si c’est trop bien fait, nous pourrions être amenés à plagier Saint Athanase en substituant l’homme à Dieu et écrire « l’homme s’est fait robot pour que le robot devienne homme ».
Oui définitivement la question de la mémoire est essentielle dans la constitution d’un droit robotique, car elle conditionne les interactions que nous ou nos descendants auront avec des humanoïdes qui pourraient, un jour peut-être, demain, prétendre être comme nous voire à notre place.
La mémoire est une caractéristique fondamentale de l’être humain. En doter des machines ce n’est pas simplement nous fournir un mode d’accès à leurs fonctions, programmes d’enregistrement ou de calcul, et ce au service de notre usage, c’est aussi leur donner la capacité de la transmission et donc d’héritage. Nous connaissons cela dans le monde des échecs où les grands maitres apprennent par cœur des centaines de parties, les analysent, les adaptent au jeu qu’ils sont en train de vivre pour identifier une variante non utilisée qui pourrait leur donner un gain significatif.
Le rapport de Simak aux robots est intéressant, car il pose celui de la responsabilité d’un créateur vis-à-vis de ses créations qui seraient dotées d’une intelligence même artificielle. Cette artificialité de l’intelligence n’est pas un obstacle pour Simak qui au travers de ses ouvrages gomme les différences entre ces deux intelligences pour amener à une confusion entre ceux qui en sont dotés, et donc à s’interroger sur ce qui définit réellement l’humanité.
Ce qui amène l’auteur à notre propos, à savoir les droits qui peuvent être reconnus aux robots. Et, question subsidiaire, serions-nous, nous humains, toujours les créateurs dispensateurs de tels droits ?
Aujourd’hui ces questions n’ont qu’une réponse, celle de l’éthique du créateur. Cette éthique qui guide la programmation doit assurer en permanence que le robot n’est pas doté de droits propres qui viendraient se confronter avec ceux reconnus aux humains (lois d’Asimov en somme) afin que ces machines restent en permanence des machines obéissantes et serviables.
Maintenant ce souci d’éthique brandi aujourd’hui sera-t-il permanent ? Des contraintes politiques, militaires ou économiques pourraient-elles remettre en question cette éthique présentée comme une barrière infranchissable aux dérives forcément humaines ? L’Histoire a montré que les grands principes ont de faibles résistances face à des intérêts personnels ou étatiques qui auraient les moyens de s’imposer.
Clifford D Simak opte pour une vision contrastée. La nature humaine étant ce qu’elle est, les progrès technologiques qui s’avéreraient à portée seront mis en œuvre. Le développement de l’IA a été spectaculaire au cours des dernières années et rien ne semble devoir l’arrêter. Les soubresauts que vient de connaitre l’entreprise Open IA (qui a développé Chat GPT) sont le récent exemple entre deux conceptions du rôle de l’IA, doit-elle être une technique maitrisée au service d’un intérêt général ou une technologie fondement d’un nouvel El Dorado économique. On laisse deviner qui remportera la mise.
Il serait illusoire de penser que le développement de l’IA et des ordinateurs quantiques aux puissances de calcul démesurées n’entrainera pas de la part des robots qui en seraient équipés des libertés comportementales, présentées initialement comme des hypothèses prévues par un programmateur, mais qui pourraient rapidement laisser la place à des choix circonstanciés définis par des algorithmes de choix.
L’œuvre de Simak, de science-fiction lors de sa parution en 1952 est, 70 ans plus tard, devenue une réflexion philosophique quant à notre rapport au progrès et pose des questions de grande pertinence.
A quel moment de conscience un robot peut avoir des droits ? Et si des droits lui sont reconnus doivent-il être similaires ou identiques à ceux des humains ? Une situation qui ne serait pas sans risque, le non-respect de droits pourrait être source de conflit entre la créature et son créateur. Le contexte robotique qui serait ainsi créé pourrait avoir des conséquences insoupçonnées ? En 2023 l’évoquer peut sembler farfelu comme, il y a encore quelques années, dire que l’on aurait dans sa poche un smartphone qui remplacerait un ordinateur, un appareil photo, un portefeuille, une télévision, une platine audio et tant d’autres applications aurait, là aussi, semblé farfelu.
Demain les robots n’est donc pas une vue de l’esprit. Le droit robotique doit se poser dès à présent les questions morales et éthiques. Devons-nous être dans un rapport technique entre un inventeur et son invention, un développeur et son programme ou ne risquerions-nous pas de glisser dans un rapport nettement plus risqué d’un créateur déifié avec ses fidèles.
Si pour le robot de demain l’homme est un dieu il conviendra de prendre garde à ce que le respect de la loi « divine » soit bien implanté dans l’esprit du robot. Si cela est mal fait, les robots pourraient développer un pélagianisme qui nous placerait en second. Et, si c’est trop bien fait, nous pourrions être amenés à plagier Saint Athanase en substituant l’homme à Dieu et écrire « l’homme s’est fait robot pour que le robot devienne homme ».
Oui définitivement la question de la mémoire est essentielle dans la constitution d’un droit robotique, car elle conditionne les interactions que nous ou nos descendants auront avec des humanoïdes qui pourraient, un jour peut-être, demain, prétendre être comme nous voire à notre place.
Inscription Newsletter
